本文介绍了XorbitsInference，一个支持多种模型如LLM、语音识别和多模态的分布式推理框架，指导用户在Windows上通过WSL2安装Linux子系统、配置环境变量，以及如何在其Python环境中安装...

浏览 99 次 标签： windows wsl2（ubuntu）使用xinference快速部署ai模型